1
從常數到隨機變數:貝氏典範
MATH003Lesson 7
00:00

貝氏典範的根本轉變在於未知參數 $\theta$ 的本體論地位。與頻率學派統計不同,後者將 $\theta$ 視為一個固定但未知的常數,而貝氏方法則將 $\theta$ 視為一個 隨機變數。這使得我們能透過先驗機率測度 $\Pi$ 來量化不確定性。

貝氏模型建構

一個完整的貝氏模型由配對 $(\{f_{\theta} : \theta \in \Omega\}, \Pi)$ 定義。貝氏推論不只是「使用貝氏定理」,而是有意地加入一個 先驗機率分配 至抽樣模型中,作為推論的關鍵要素。

聯合分配

我們知識的總狀態由聯合分配 $\pi(\theta) f_{\theta}(s)$ 捕捉。此函數將觀測到的資料 $s$ 與未觀測到的參數 $\theta$ 結合於單一一致的機率框架中。

直接的機率陳述

在此典範中,$\theta$ 受機率密度 $\pi(\theta)$ 所支配。這使我們能對參數做出直接的機率陳述,例如 $P(\theta \in A)$。在頻率學派框架中這是邏輯上不可能的,因為 $\theta$ 沒有分配,因此此類陳述無定義。

⚠️ 關鍵陷阱:後驗分配公理
請注意,選擇使用 後驗分配 來進行關於 $\theta$ 的機率陳述,是一項 公理,或原則,屬於貝氏學派——而非從更基本的統計真理所推導出的定理。我們假設後驗分配代表了我們理性信念的更新狀態。

現實世界類比:醫療診斷

在罕見疾病的診斷中,「常數」是患者是否患病。在貝氏典範中,我們將疾病狀態 $(\theta)$ 視為一個隨機變數。若盛行率為 0.1%(先驗),且檢測結果呈陽性(模型 $f_{\theta}$),我們不僅僅看檢測的準確度;還需考慮患病且檢測呈陽性的聯合機率,以判斷新的患病機率。

🎯 核心原理
貝氏推論將先驗機率分配加入資料的抽樣模型中,作為額外的要素,用於決定關於參數未知值的推論。